Sejarah kuil bermula pada awal 1850-an, dan kemudiannya disebut dalam Laporan Kerajaan Sarawak mengenai "Warta Sarawak" pada tahun 1871. [3][4] [5][6] [7][8] Pada tahun 1897, kuil itu telah dibina semula menjadi seni bina kuil Tao tipikal gaya Cina , yang direka dengan bumbung berjubin, lantai blok batu dan semua purlin dan lekapan hiasan yang diimport dari China ; patung dewa Tua Pek Kong diukir khas dan diimport dari Xiamen . [9] Selepas bangunan itu siap, senarai penderma dan butiran perbelanjaan direkodkan dalam dua keping loh batu yang masih tersimpan rapi di dalam kuil. Pada 8 Mac 1928, bandar Sibu telah musnah akibat kebakaran besar dengan kuil tersebut terselamat dan tidak mengalami sebarang kerosakan. Kuil itu bagaimanapun musnah melalui Perang Dunia II walaupun Patung dewanya kekal tidak rosak. Selepas tamat perang, kuil struktur kayu telah dibina semula. [10]

Pada tahun 1957, kuil itu telah dibina semula menjadi struktur konkrit dan diisytiharkan dibuka oleh Gabenor Sarawak ketika itu, Sir Anthony Abell . [11][12] Ia merupakan satu majlis besar bagi Pekan Sibu kerana pembesar-pembesar Diraja British termasuk Residen menghadiri majlis tersebut. Satu lagi pengubahsuaian pada kedua-dua sayap kuil sedang dijalankan pada tahun 1979 dan bumbung kuil telah ditukar daripada kayu "belian" (Eusideroxylon zwageri) kepada konkrit dengan jubin bumbung berlapis; rabung atau bumbung dan tiang dihiasi dengan patung naga dan burung phoenix tradisional. [13] Pada tahun 1982, jawatankuasa pengurusan kuil merancang untuk membina semula bahagian belakang dan membina pagoda 7 tingkat untuk penyembahan Dewi Belas Kasihan di mana rancangan itu sedang direalisasikan pada tahun 1987 melalui bantuan daripada kerajaan negeri Sarawak dan penyembah kuil. [14] [15][16] [17][18] Pagoda baharu itu mengikut rapat seni bina pagoda tradisional Cina dan seterusnya menjadi salah satu mercu tanda bagi Sibu. Bangunan yang telah diubah suai telah diisytiharkan dibuka pada tahun 1989. [19]